Cost Scales with Change, Not Corpus Size: Incrementally Maintaining an Evolving Semantic Substrate
成本随变化缩放而非语料大小:增量维护演化语义基底
🧭 增量语义基底维护 · RAG 成本优化
Asia AI Institute · Musashino University · Endgame Labs, Inc.
增量低秩更新替代全量 SVD,使语义基底维护成本随变化量而非语料规模增长
📌 工作参考价值(4 点)
- 电商商品库/内容库频繁上新时,可用增量低秩更新维护语义索引(LSI/SVD),单次更新成本与新增变更量成正比,替代周期性全量重建,适合高动态场景。
- 切换 embedding 模型或版本时,不必全量重新嵌入所有商品/文档;用 orthogonal Procrustes 对齐新旧嵌入空间,只需重嵌约 10% 代表性样本校准虚拟轴,可恢复 0.95 平均余弦相似度,大幅降低迁移成本。
- 增量 SVD 维护的子空间与全量 SVD 接近一致(recall@10=1.0),可作为动态语义召回或 RAG 索引的底层机制,支持低延迟 ingestion 和稳定检索质量。
- 可推广到用户/商品向量索引(如 ANN)的更新策略:用增量更新 + 漂移校准代替定期全量重建,减少离线计算资源消耗。